Meta składa pozew przeciwko twórcy technologii aplikacji „nudify”

Firma Meta poinformowała w czwartek, że pozwała twórcę aplikacji, który wykorzystuje sztuczną inteligencję do symulowania nagich obrazów prawdziwych osób, które pojawiają się na zdjęciach w ubraniach.

Firma Meta poinformowała, że ​​wniosła pozew w Hongkongu przeciwko Joy Timeline HK Limited, podmiotowi stojącemu za aplikacją CrushAI, domagając się, aby nie wolno jej było reklamować aplikacji CrushAI na platformach Meta.

„Ta akcja prawna podkreśla zarówno powagę, z jaką traktujemy to nadużycie, jak i nasze zobowiązanie do zrobienia wszystkiego, co w naszej mocy, aby chronić przed nim naszą społeczność” — powiedziała Meta w oświadczeniu. „Będziemy nadal podejmować niezbędne kroki — które mogą obejmować działania prawne — przeciwko tym, którzy nadużywają naszych platform w ten sposób”.

Działania prawne zostały podjęte po tym, jak Joy Timeline podjęło „wielokrotne próby” obejścia procesu weryfikacji reklam Meta, twierdzi Meta.

Reklamy tak zwanych aplikacji nudify pojawiły się na platformach Meta Facebook i Instagram, mimo że naruszały zasady reklamowe serwisów społecznościowych. CrushAI, który tworzy aplikacje, promował narzędzia AI, które według niego pozwalają użytkownikom przesyłać zdjęcia i „widzieć każdego nago”, jak wykazało dochodzenie CBS News .

Meta powiedziała, że ​​firma zakazuje „niezgodnych intymnych obrazów” na swoich platformach. Firma wcześniej poinformowała CBS News, że usunęła reklamy technologii nudify, usunęła strony na swoich platformach, na których wyświetlano reklamy, i trwale zablokowała witryny powiązane z aplikacjami.

Meta poinformowała w czwartek, że będzie udostępniać informacje, w tym adresy URL reklam, o podmiotach naruszających jej zasady innym firmom technologicznym za pośrednictwem programu Lantern Program Tech Coalition, który śledzi zachowania naruszające zasady bezpieczeństwa dzieci. Od marca Meta udostępniła programowi informacje o ponad 3800 witrynach, które są udostępniane innym firmom technologicznym, według firmy.

Meta powiedziała, że ​​reklamodawcy aplikacji nudify stosują różne środki, aby uniknąć wykrycia na swoich platformach, w tym poprzez używanie nieszkodliwych obrazów, aby spróbować ominąć technologię używaną do identyfikowania takich reklam na swoich stronach. W rezultacie opracowała lepszą technologię wykrywania reklam z aplikacji nudify, które są przedstawiane jako nieszkodliwe, powiedziała Meta w czwartek.

„Współpracowaliśmy z zewnętrznymi ekspertami i naszymi własnymi zespołami specjalistów, aby rozszerzyć listę terminów, fraz i emotikonów związanych z bezpieczeństwem, które nasze systemy są szkolone do wykrywania w tych reklamach” — powiedział Meta.

W przygotowaniu niniejszego raportu pomógł Emmet Lyons .